Согласно отчету DIGITIMES Research, в 2024 году глобальные поставки ИИ ASIC собственной разработки для ЦОД, как ожидается, достигнут 3,45 млн единиц, а доля рынка Google вырастет до 74 %. Как сообщают аналитики Research, до конца года Google начнёт массовое производство нового поколения ИИ-ускорителей TPU v6 (Trillium), что ещё больше увеличит её присутствие на рынке.

В 2023 году доля Google на рынке ИИ ASIC собственной разработки для ЦОД оценивалась в 71 %. В отчёте отмечено, что помимо самой высокой доли рынка, Google также является первым из трёх крупнейших сервис-провайдеров в мире, кто разработал собственные ИИ-ускорители. Первый TPU компания представила в 2016 году. Ожидается, что TPU v6 будет изготавливаться с применением 5-нм процесса TSMC, в основном с использованием 8-слойных чипов памяти HBM3 от Samsung.

Также в отчёте сообщается, что Google интегрировала собственную архитектуру оптического интерконнекта в кластеры TPU v6, позиционируя себя в качестве лидера среди конкурирующих провайдеров облачных сервисов с точки зрения внедрения технологий и масштаба развёртывания. Google заменила традиционные spine-коммутаторы на полностью оптические коммутаторы Jupiter собственной разработки, которые позволяют значительно снизить энергопотребление и стоимость обслуживания ИИ-кластеров TPU POD по сравнению с решениями Broadcom или Mellanox.

Источник изображения: cloud.google.com

Кроме того, трансиверы Google получил ряд усовершенствований, значительно нарастив пропускную способность. Если в 2017 году речь шла о полнодуплексном 200G-решении, то в этом году речь идёт уже о 800G-решениях с возможностью модернизации до 1,6T. Скорость одного канала также существенно выросла — с 50G PAM4 в 2017 году до 200G PAM4 в 2024 году.

По оценкам DIGITIMES Research, доходы тайваньского бизнеса, связанного с серверами, в 2023 году превысили 2 трлн тайваньских долларов, сократившись на 7 %. Согласно последнему отчету, снижение физического объёма поставок на 17,5 % привело к гораздо меньшим денежным потерям, чем ожидалось, так как в структуре экспорта выросла доля высокопроизводительных ИИ-серверов, стоящих чрезвычайно дорого.

В 2024 году DIGITIMES Research прогнозирует продолжение этой тенденции и спрос на замену серверов общего назначения, что приведёт к увеличению доходов тайваньских производителей серверов на 15 %.

Несмотря на сокращение заказов со стороны облачных провайдеров (CSP) на серверы общего назначения, а также связанные с ними услуги и оборудование, Foxconn (Hon Hai Precision Industry) в 2023 году осталась на первом месте по выручке от продаж серверов среди тайваньских производителей. По оценкам, в 2024 году Foxconn Group сохранит лидерство вследствие большого объема заказов на новые процессоры Amazon Graviton и роста продаж новых решений NVIDIA во II половине года. Ожидается, что доходы Foxconn от продаж серверов вырастут почти на 15 %.

Компания Wistron Group (включая Wiwynn), занявшая второе место, имела в 2023 году самые стабильные показатели выручки среди тайваньских компаний, снижение которой, по оценкам, составило всего 5,2 %. Wistron является основным поставщиком HGX-модулей NVIDIA A100/H100 и иных несущих плат для ускорителей, которые принесли существенный доход.

В 2024 году выручка Wistron Group также значительно вырастет благодаря таким благоприятным факторам, как увеличение поставок как ИИ-серверов для гиперскейлеров, так и фирменных ИИ серверов. Доходы Quanta Computer, занимающей третье место, в 2023 году по серверному направлени. сократились на 9,2 %, поскольку североамериканские облака перенесли часть своих расходов на приобретение дорогостоящих ИИ-серверов и значительно сократили закупки серверов общего назначения. В 2024 году, в связи со существенным увеличением доли ИИ-серверов с более высокой маржинальностью, выручка Quanta может вырасти на 14,5 %.

В 2023 году у компании Inventec первое место по объему поставок серверов в виде материнских плат, а по выручке — четвертое. В 2023 году, когда спрос на серверы общего назначения со стороны поставщиков фирменных решений и клиентов CSP после пандемии снизился, выручка Inventec от продажи серверов упала на 9,5 %, что стало самым значительным снижением среди четырех крупнейших тайваньских производителей. Ожидается, что в 2024 году заказы от крупных клиентов возобновятся, а продажи вырастут на 9 %.

В III квартале 2023 года мировые поставки серверов выросли поквартально на 1,5 %, в полном соответствии с прогнозами экспертов. Как сообщает DigiTimes со ссылкой на доклад своего аналитического подразделения, основным драйвером роста был запуск вендорами новых платформ. При этом общие объёмы закупок крупными облачными сервис-провайдерами США даже слегка упали, при одновременном росте интереса к более дорогим ИИ-серверам.

В IV квартале мировые поставки серверов по мнению экспертов должны вырасти на 3,8 % квартал к кварталу. Речь идёт как о восстановлении поставок обычных серверов общего назначения для крупных облачных провайдеров из США, так и увеличении поставок ИИ-серверов.

Изображение: Panumas Nikhomkhai / Pixabay

Высокие процентные ставки в III квартале 2023 года крайне негативно повлияли на корпоративные закупки и заставили вендоров вроде Dell и HPE снизить расходы на решения на базе новых платформ AMD и Intel. При этом провайдеры облачных сервисов из Северной Америки зарегистрировали неудовлетворительные результаты в сегменте серверов для традиционных вычислений, что привело к спаду закупок квартал к кварталу. В то же время облачные операторы увеличили закупки высокопроизводительных ИИ-серверов.

Поставки для Meta✴ и Google упали квартал к кварталу более чем на 10 % для каждой из компаний, а поставки для ЦОД в Китае слегка увеличились, но только в сравнении с уже низкими объёмами, зарегистрированными кварталом ранее.

Давая предварительный прогноз для IV квартала, эксперты пришли к выводу, что спрос среди крупных облачных провайдеров в Северной Америке в последнем квартале года восстановится, поскольку он уже достиг минимума и наметилась обратная тенденция. Кроме того, продолжают увеличиваться поставки ИИ-серверов, а Amazon агрессивно внедряет собственную платформу на базе Arm-архитектуры.

Поставки вендоров должны вырасти с октября по декабрь на 4,5 % квартал к кварталу, основным фактором роста стало появление новых процессорных платформ. Например, в прошлом месяце Dell заявила, что серверы станут основным драйвером роста компании в эпоху ИИ. Восстановятся и закупки облачными провайдерами, например, гиперскейлеров уровня Meta✴ и Amazon.

DigiTimes Research обнародовала прогноз по мировому рынку серверов, ориентированных на работу с ресурсоёмкими приложениями ИИ. Аналитики полагают, что спрос на такие системы в ближайшие годы будет устойчиво расти.

По оценкам, поставки высокопроизводительных ИИ-серверов в 2023 году составят около 167 тыс. единиц. В 2024-м, считают эксперты DigiTimes Research, этот показатель достигнет 337 тыс. штук. Таким образом, ожидается двукратный рост. Вместе с тем рынок генеративного ИИ в целом до конца десятилетия будет демонстрировать среднегодовой темп роста в сложных процентах (CAGR) на уровне 35 %, так что к 2030-му его объём может достичь $109 млрд.

По словам вице-президента DigiTimes Research Эрика Хуанга (Eric Huang), ажиотаж вокруг ИИ немного утих, но эти технологии продолжат стимулировать закупки серверов среди ведущих облачных провайдеров и гиперскейлеров — Microsoft Azure, Amazon Web Services (AWS), Google Cloud, Core Weave, Meta✴, Oracle и Twitter (теперь называется X), что подтверждает и последний квартальный отчёт NVIDIA, текущего лидера в области ИИ.

Источник изображения: Microsoft

Хотя спрос на ИИ-серверы растёт, существует и ряд сложностей. Одна из них заключается в обеспечении поставок необходимых объёмов высокоскоростной памяти HBM для ускорителей. Согласно прогнозам, отгрузки таких изделий в 2024 году увеличатся на 105 % по сравнению с 2023-м. Ожидается, что преобладающим методом для выпуска ИИ-чипов будет Chip on Wafer on Substrate (CoWoS) от TSMC, позволяющий разместить на одной подложке до 12 стеков памяти HBM.

Но возможности самой TSMC по выпуску чипов с применением CoWoS будут ограничены в связи с растущим спросом на такие изделия со стороны AMD, Google и других компаний. TSMC начнёт производство подобной продукции на своём новом заводе в Тунлуо (Тайвань) в 2027 году: ожидается, что предприятие сможет ежемесячно изготавливать более 110 тыс. единиц продукции.

Глобальные поставки серверов во II квартале 2023 года снизились по сравнению с I кварталом на 5,7 %, сообщили аналитики DIGITIMES Research. Согласно прогнозу аналитической фирмы, возможный рост поставок в III квартале по сравнению с предыдущими тремя месяцами составит лишь однозначное число в процентах из-за того, что бренды и провайдеры облачных сервисов (CSP) будут сокращать затраты во второй половине года несмотря на то, что новые серверные платформы доступны для приобретения.

В DIGITIMES Research зафиксировали сокращение поставок серверов во II квартале в количественном выражении, поскольку провайдеры увеличили закупки более дорогих серверов в связи с ростом популярности генеративного ИИ. При этом в отчётном квартале наблюдалось снижение расходов предприятий и потребителей на облачные технологии из-за роста банковских ставок на развитых рынках и снижения спроса на облачные услуги в постпандемическую эпоху, что в свою очередь привело к замедлению темпов строительства новых дата-центров облачными провайдерами.

Источник изображения: Pixabay

Ведущие североамериканские гиперскейлеры, включая Meta✴ и Amazon, в связи с собственным пессимистичным прогнозом в отношении спроса на свои социальные сети и публичные облачные сервисы значительно сократили закупки серверов, из-за чего поставки тайваньских ODM-вендоров клиентам-операторам ЦОД в США сократились более чем на 10 %.

Серверные бренды, показавшие ранее слабые продажи, во II квартале столкнулись с небольшим последовательным снижением поставок из-за вялого спроса со стороны корпоративных клиентов в дополнение к нерешённым проблемам с аппаратной составляющей их новых серверных продуктов. Однако спрос со стороны китайских операторов ЦОД начал восстанавливаться, хотя это объясняется эффектом сравнительно низкой базы на фоне прошлых кварталов.

DIGITIMES Research прогнозирует умеренный рост глобальных поставок серверов в III квартале — на 1,5 %. Поскольку спрос на традиционные облачные услуги не демонстрирует признаков восстановления, операторы Северной Америки увеличат расходы на высокопроизводительные ИИ-серверы, стоимость которых в десятки раз выше обычных, что приведёт к небольшому последовательному снижению объёма поставок серверов в штуках.

Вместе с тем может наблюдаться последовательный рост поставок серверных брендов в связи с запуском серверов с новыми версиями процессоров AMD и Intel. Поставки новых продуктов продолжат увеличиваться в IV квартале, операторы ЦОД в США и Китае намерены увеличить закупки серверов общего назначения, а также ИИ-серверов.

Несмотря на растущую популярность генеративного ИИ, который многие компании стремятся интегрировать в существующие приложения и платформы, увеличение поставок ИИ-серверов будет ограниченным, заявил старший аналитик DIGITIMES Research Джим Сяо (Jim Hsiao).

В настоящее время все отрасли стремятся интегрировать генеративный ИИ в свои рабочие процессы, но особенно активно этим занимаются финансовые и медиа-компании. По словам Сяо, благодаря значительным возможностям генеративного ИИ в сборе данных и создании контента некоторые СМИ уже начали использовать ИИ-системы для написания материалов, в то время как финансовая индустрия использует их для анализа данных при прогнозе изменений на рынке, сказал Сяо, добавив, что Bloomberg использует ИИ в работе своего медиа- и финансового бизнеса.

Источник изображения: Hitesh Choudhary/unsplash.com

Сяо отметил, что растущий спрос на ИИ-серверы выгоден для ИТ-рынка. Многие компании, изначально планировавшие сократить капиталовложения в отрасль в этом году на фоне экономического спада, вызванного инфляцией и общей политической обстановкой, в конечном итоге решили сохранить свои бюджеты для покупки ИИ-серверов. Из-за дороговизны ИИ-серверов, чья стоимость в среднем более чем в 20 раз превышают стоимость обычных серверов, их можно приобрести гораздо меньше при том же бюджете. Это может привести к замедлению роста их поставок в общем объёме серверов в следующие несколько кварталов, утверждает аналитик.

Источник: DIGITIMES Research

Он сообщил, что одной из задач облачных провайдеров стало усиление промт-инжиниринга (инженирии подсказок), поскольку этот механизм играет важную роль в раскрытии потенциала генериративного ИИ. Такие решения обычно обучаются в рамках малых ИИ-моделей, а полученные результаты позже передаются в крупную систему ИИ для получения более качественных ответов, пояснил Сяо. Microsoft продвигает для промт-инжиниринга Azure OpenAI, в то время как Google предлагает Bard, добавил он.

Несмотря на растущую конкуренцию между NVIDIA и AMD, связанную с резким всплеском интереса к ИИ-решениям, рынок ЦОД в целом замедлился, а это способно навредить обеим компаниям. Как сообщает DigiTimes, корпорации, использующие продукцию обоих производителей, вынуждены экономить.

По данным MarketWatch, акции NVIDIA выросли примерно на 190 % с начала текущего года, а ценные бумаги AMD взлетели на 100 % за тот же период. Тем не менее, по мнению аналитиков Bank of America, рыночные ожидания могли превысить основные показатели. Эксперты считают, что общие капитальные затраты облачных провайдеров вырастут не на 4,7 % год к году, как ожидалось ранее, а лишь на 2,5 %. В Bank of America сообщают, что облачные провайдеры могут увеличить цикл обновления обычных CPU с традиционных 3-4 лет до 5-6 лет.

Как считает аналитик DigiTimes Research Джим Сяо (Jim Hsiao), несмотря на ажиотаж, связанный с ChatGPT и сходными технологиями, мировые поставки серверов в I квартале 2023 года упали, рост квартала к кварталу может составить с мая по июнь 3,9 %. Он также подчеркнул, что поставки североамериканским сервис-провайдерам были ниже, чем ожидалось, но именно они обеспечат рост поставок ИИ-серверов во II квартале. Однако их вклад в общий рынок будет ограничен из-за высоких цен.

Источник изображения: Bloomberg

Тем временем Gartner прогнозирует, что мировые траты на системы для ЦОД вырастут в 2023 году на 3,3 % (году к году), тогда как за предыдущий период рост составли внушительные 11,1 % в прошлом году. Несмотря на экономические трудности, влияющие на траты, связанные с облачной инфраструктурой, ключевые гиперскейлеры наращивали капитальные затраты, а в Microsoft подтвердили, что компания продолжит наращивать расходы благодаря инвестициям в ИИ-инфраструктуру Azure.

Мировые поставки серверов в I квартале 2023 года, по оценкам DigiTimes Research, уменьшились на 13,8 % по отношению к последней четверти 2022-го. Итоговый результат составил менее 4 млн единиц. Таким образом, отгрузки не оправдали ожидания аналитиков.

Отмечается, что негативное влияние на рынок оказали несколько факторов. Это, в частности, макроэкономические вызовы и высокий уровень инфляции. На фоне сложившейся ситуации крупные облачные провайдеры в США пересмотрели свои планы по созданию новых дата-центров, а объём заказов на серверы в корпоративном сегменте сократился.

Источник изображения: Microsoft

Ведущие гиперскейлеры, включая Meta✴ и Amazon, значительно сократили количество заказов в I квартале 2023 года. Вместе с тем корпоративные клиенты в развитых регионах в значительной степени уменьшили закупки серверов для локальной установки. Из-за этого продажи оборудования Dell и HPE рухнули на двузначные числа процентов. В Китае в связи с американскими санкциями и стагнацией развития цифровой экономики поставки серверов для ЦОД также уменьшились в квартальном исчислении.

DigiTimes Research прогнозирует, что во II четверти текущего года рост отгрузок серверного оборудования в квартальном исчислении будет незначительным — менее чем на 4 %. Ожидается, что Meta✴ продолжит сокращать закупки, тогда как Microsoft и Google могут увеличить заказы на серверы для ИИ-проектов, но их влияние на рынок в целом будет иметь ограниченный характер.

Спутниковые проекты, позволяющие передавать и обрабатывать солидные объёмы данных, уже давно привлекают внимание гигантов облачных вычислений, включая Amazon, Microsoft и Google, заинтересованных в выходе на рынок космических услуг, пишет DIGITIMES Research.

Согласно классификации DIGITIMES Research, публичные облака сейчас предлагают три типа услуг: базовые облачные сервисы, наземные станции с облачными сервисами и облачные сервисы, основанные на собственной спутниковой сети. Спутниковая экосистема включает сами спутники, наземные станции и приёмники. Спутники используются для выполнения различных задач, включая наблюдение Земли, передачу сигналов и обеспечение связи. Наземные станции отвечают за управление спутниками, передачу и обработку данных, в том числе потоковых.

Amazon, Microsoft и Google уже внедряют доступ к наземным станциям по модели как-услуга (GSaaS). Прямое подключение позволит спутниковым операторам сэкономить на узлах передачи данных и собственной наземной инфраструктуре, а облакам поможет внедрить новые сервисы на границе сети. Однако подход у провайдеров разнится. Например, Google Cloud Platform (GCP) фокусируется на обработке данных и геосервисах, интегрированных с целым рядом облачных услуг. А Amazon Web Services (AWS) и Microsoft Azure инвестируют в наземную инфраструктуру, в которой заинтересованы спутниковые компании.

Источник изображения: DIGITIMES

Особняком стоит спутниковый проект Project Kuiper, разрабатываемый собственными силами Amazon с целью снижения TCO и вертикальной интеграции с инфраструктурой AWS. Собственная спутниковая система позволит не только развивать услуги спутниковой широкополосной связи и IoT, но и будет служить основой для комплексных решений, задействуюших ресурсы других подразделений Amazon. Кроме того, компания намерена инвестировать $10 млрд в развитие сети наземных станций. По оценкам DIGITIMES Research, развёртывание экосистемы сопряжено с риском, поэтому Amazon будет осмотрительна.

DIGITIMES Research отмечает, что основное отличие Microsoft Azure от AWS в данном контексте заключается в открытости экосистемы. AWS представляет собой более «закрытую» среду. К тому же AWS сотрудничает с такими стартапами, как Maxar, BlackSky, Capella и D-Orbit, а не с традиционными спутниковыми игроками и операторами наземных станций. Вместе с тем компания сталкивается с большими проблемами при расширении своего рынка из-за конкуренции с существующими спутниковыми компаниями, предоставляя при этом только базовые облачные услуги.

Изображение: Microsoft Azure

В отличие от Amazon, Microsoft имеет платформу и экосистему для подключения к облаку компаний из различных отраслей, и Microsoft готова к сотрудничеству с другими спутниковыми компаниями. Сервис Azure Orbital предлагает обширную экосистему партнёрских возможностей, которая привлекает и SES с Viasat, и SpaceX. DIGITIMES Research предупреждает, что по мере увеличения экосистемы становится всё более сложным поддержание её стабильного роста экосистемы и синергии сотрудничества, и в перспективе Azure Orbital станет серьёзной проблемой для Microsoft.

По оценкам DIGITIMES Research, у AWS самые высокие потенциальные преимущества и риски в области спутниковых систем, в то время как у GCP самые стабильные потенциальные преимущества и самые низкие риски. Azure же занимает промежуточное положение — умеренные риски и умеренные преимущества на рынке.

В течение последних лет AMD и Arm подвергли серьёзному сомнению обоснованность претензий Intel на лидерство на рынке серверных процессоров. 2022 год был особенно удачным для AMD, расширившей своё присутствие на рынке благодаря тому, что операторы ЦОД и серверные бренды признали, что её решения превосходят решения Intel, отметили аналитики DIGITIMES Research.

Согласно их прогнозу, в 2023 году доля AMD на рынке серверных процессоров значительно превысит 20 %, в то время как у Arm доля составит около 8 %. Аналитик отметил, что более низкая цена чипов AMD является лишь одним из трёх факторов, которые способствовали переходу операторов ЦОД и производителей серверов на её продукты. При сравнении серверных CPU AMD и Intel с одинаковым количеством ядер, тактовой частотой и аппаратными характеристиками выясняется, что ценники большинства продуктов AMD как минимум на 30 % ниже, но разница может достигать и более 40 %. Столь большой отрыв в цене имеет ключевое значение для серверных компаний, обычно осуществляющих закупки чипов в больших объёмах, и выбор решений AMD позволил им значительно сократить затраты.

В связи с тем, что процессоры Intel и AMD основаны на архитектуре x86, совместимость с другим оборудованием и ПО не является проблемой для производителей серверов, отметили аналитики, добавив, что большое количество ядер у процессоров AMD также делает их идеальными для серверной среды. 96-ядерный процессор AMD EPYC Genoa вышел в IV квартале 2022 года, а 128-ядерный процессор компании, как ожидается, увидит свет в первой половине 2023 года, тогда как лучшее на данный момент предложение Intel включает 60 ядер. Второй фактор успеха AMD — поддержка TSMC. Все серверные CPU AMD изготавливаются с использованием нового техпроцесса TSMC, что обеспечивает им высокую производительность, отмечает DIGITIMES Research, и позволяет строго придерживаться графика выпуска продуктов, чего не скажешь об Intel.

Источник изображения: DIGITIMES

Третьим фактором, по мнению Фрэнка Кунга, является то, что Intel производит чипы самостоятельно. Как утверждают основные поставщики, производство чипов Intel в течение последних нескольких лет не отличалось стабильностью, из-за чего компании приходилось переносить сроки массового выпуска новых серверных чипов, что вынуждало производителей серверов менять свои планы. Среди провайдеров ЦОД наибольшей популярностью серверы на базе AMD пользуются у Microsoft и Google, у которых на них приходится более 30 % заказов на поставку. А среди серверных брендов наиболее заинтересована в процессорах AMD компания HPE.

По словам DIGITIMES Research, в долгосрочной перспективе серверные Arm-процессоры по-прежнему будут иметь потенциал для значительного роста, хотя в 2022 году с точки зрения увеличения доли рынка они уступали чипам AMD, и в 2023 году рост замедлится ещё больше. Однако в долгосрочной перспективе процессоры на базе Arm по-прежнему будут иметь потенциал для значительного роста. Наибольшей проблемой для них является совместимость. И эта проблема будет существовать до тех пор, пока не появится больше серверов на базе Arm, что привлечёт больше разработчиков ПО. Вместе с тем, как отметили в DIGITIMES Research, операторы ЦОД и серверные бренды возлагают большие надежды на архитектуру Arm.